Rudolf Kálmán sinh ra tại Budapest năm 1930. Sau khi di cư đến Hoa Kỳ vào năm 1943, ông lấy được bằng cử nhân vào năm 1953 và bằng thạc sĩ vào năm 1954, cả hai đều từ viện công nghệ Massachusetts, chuyên ngành kỹ thuật điện. Kálmán hoàn tất bằng tiến sĩ vào năm 1957 tại Đại học Columbia ở thành phố New York.

Kálmán làm việc như một nhà toán học nghiên cứu tại Viện nghiên cứu Cao cấp ở Baltimore, Maryland từ năm 1958 đến năm 1964. Ông là giáo sư tại Đại học Stanford năm 1964 cho đến năm 1971, và sau đó là giáo sư nghiên cứu sau đại học và giám đốc của Trung tâm lý thuyết hệ thống toán học tại Đại học Florida từ năm 1971 đến năm 1992. Bắt đầu từ năm 1973, ông cũng đồng thời giữ chức chủ tịch của Lý thuyết Hệ thống Toán học tại Viện công nghệ liên bang Thụy sĩ ở Zürich, Thụy sĩ.